Tòa án ở Đài Loan (Phúc Nhĩ Ma Sa) ban đầu thành lập năm 1896, năm thứ hai sau khi Nhật Bản sát nhập Đài Loan, Tòa án cao đẳng Đài Loan đương thời có thể coi như Tòa án tối cao thật tế vì không thể kháng cáo lên Đại thẩm viện ở Tokyo, sau Thế chiến thứ hai Nhật Bản từ bỏ chủ quyền về Đài Loan và Tòa án tối cao của hệ thống tòa án Đài Loan trở thành Tối cao pháp viện Trung Hoa Dân Quốc.

Tối cao pháp viện Trung Hoa Dân Quốc ban đầu thành lập là Đại lý viện[1] (chữ Hán phồn thể: 大理院; bính âm: Dàlǐ Yuàn) năm 1909, sau khi Trung Quốc thống nhất chính phủ Trung Hoa Dân Quốc đổi tên thành Tối cao pháp viện năm 1927 và định làm tòa án chung thẩm của đất nước năm 1928. Tháng 3 năm 1949, Tòa cùng Tư pháp viện chuyển sang Quảng Châu, tháng 8 thì dời về Đài Bắc, Đài Loan, nơi chính phủ Quốc dân đảng rút lui về sau Nội chiến quốc cộng. Ban đầu ở Đại hạ tư pháp trên Đường Nam Trùng Khánh, sau đó Tòa chuyển sang địa điểm hiện tại trên Đường Trưởng Sa từ năm 1992.[2]